Hệ nhị phân được nhà toán học cổ người Ấn Độ Pingala phác thảo từ thế kỷ thứ ba trước Công Nguyên.

Một bộ trọn 8 hình bát quái với 64 hình sao sáu cạnh, tương đồng với 3 bit và 6 bit trong hệ số nhị phân, đã được ghi lại trong điển tịch cổ Kinh Dịch.

Nhiều tổ hợp nhị phân tương tự cũng được tìm thấy trong hệ thống bói toán truyền thống của châu Phi, ví dụ như Ifá, và trong môn bói đất của phương Tây.

Tổ hợp thứ tự của những hình sao sáu cạnh trong Kinh Dịch, đại diện cho một dãy số nguyên thập phân từ 0 đến 63, cùng với một công thức để sinh tạo dãy số ấy, đã được học giả và nhà triết học người Trung Hoa tên là Thiệu Ung (邵雍), thế kỷ 11, thiết lập. Dầu vậy, không có ghi chép nào để lại, thể hiện bằng chứng là Thiệu Ung thông hiểu cách tính toán, dùng hệ nhị phân.

Trong thế kỷ 17, nhà triết học người Đức tên là Gottfried Leibniz đã ghi chép lại một cách trọn vẹn hệ thống nhị phân trong bài viết "Giải thích về toán thuật trong hệ nhị phân" (Explication de l'Arithmétique Binaire). Hệ thống số mà Leibniz dùng chỉ bao gồm số 0 và số 1, tương đồng với hệ số nhị phân đương đại.[1]

Năm 1854, nhà toán học người Anh, George Boole đã cho xuất bản một bài viết chi tiết về một hệ thống lôgic mà sau này được biết là đại số Boole, đánh dấu một bước ngoặt trong lịch sử toán học. Hệ thống lôgic của ông đã trở thành nền tảng trong việc kiến tạo hệ nhị phân, đặc biệt trong việc thực thi hệ thống này trên bảng điện tử.[2]

Vào năm 1937, nhà toán học và kỹ sư điện tử người Mỹ, Claude Elwood Shannon, viết một luận án cử nhân tại MIT, trình bày phương thức kiến tạo hệ thống đại số Boole và số học nhị phân dùng các rơ-le và công tắc lần đầu tiên trong lịch sử. Bài viết với đầu đề "Bản phân tích tượng hình của mạch điện dùng rơ-le và công tắc" (A Symbolic Analysis of Relay and Switching Circuits). Bản luận án của ông đã được chứng minh là có tính khả thi trong việc thiết kế mạch điện kỹ thuật số.[3]

Tháng 11 năm 1937, ông George Stibitz, lúc đó đang làm việc tại Bell Labs, hoàn thành việc thiết kế một máy tính dùng các rơ-le và đặt tên cho nó là "Mô hình K" (Model K) - chữ K ở đây là chữ cái đầu tiên của từ kitchen trong tiếng Anh, nghĩa là "nhà bếp", nơi ông lắp ráp máy tính của mình. Máy tính của ông có thể tính toán dùng phép tính cộng của hệ nhị phân.[4] Cơ quan Bell Labs vì thế đã ra lệnh và cho phép một chương trình nghiên cứu tổng thể được thi hành vào cuối năm 1938 dưới sự chỉ đạo của ông Stibitz. Máy tính số phức hợp (Complex Number Computer) của họ, được hoàn thành vào ngày 8 tháng 1 năm 1940, có thể giải trình số phức hợp. Trong một cuộc luận chứng tại hội nghị của Hội Toán học Mỹ (American Mathematical Society), được tổ chức tại Dartmouth College vào ngày 11 tháng 9 năm 1940, ông Stibitz đã có thể truyền lệnh cho Máy tính số phức hợp từ xa, thông qua đường dây điện thoại, bằng một máy điện báo đánh chữ (teletype). Đây là máy tính đầu tiên được sử dụng với phương pháp điều khiển từ xa dùng đường dây điện thoại. Một số thành viên tham gia hội nghị và được chứng kiến cuộc thuyết trình bao gồm John von Neumann, John Mauchly và Norbert Wiener, đã viết lại sự kiện này trong hồi ký của mình.[5][6][7]